Чат-бот GPT-4 лучше справляется с модерацией контента, чем человек
OpenAI уверена, что её технология может помочь решить одну из самых сложных проблем в сфере технологий — масштабированную модерацию контента. OpenAI утверждает, что GPT-4 может заменить десятки тысяч модераторов-людей, при этом оставаясь почти таким же точным и более последовательным инструментом, что на самом деле очень важно для большинства проектов.
Если это правда, наиболее токсичные и психологически нагруженные задачи в области технологий могут быть переданы на обработку машинам. В блоге OpenAI говорится, что уже сейчас GPT-4 используется для разработки и уточнения собственных политик контента, маркировки контента и принятия решений в том числе в корпоративном секторе.
При этом авторы проекта на базе ИИ заявляют, что люди по-разному интерпретируют политики конфиденциальности, в то время как машины последовательны в своих суждениях. Эти руководства могут быть объёмными, как книга, и постоянно меняться. В то время как для обучения и адаптации человеку требуется много времени, большие языковые модели могут мгновенно внедрять новые правила обработки контента и в этом смысле они гораздо лучше человека.
Да и в моральном плане это очень важный момент — в компании Google есть отдел, где люди осматривают контент, помеченный как нарушающий правила, и обычно на этой работе специалисты дольше пары месяцев не выдерживают — слишком большой урон по ментальному здоровью. Но у машины таких проблем нет и она может работать столько, сколько нужно.
